PSG: Pair-Space Generation for Efficient Generative Reranking
PSG:用于高效生成式重排的配对空间生成
🧭 生成式重排·Pair-Space 解码加速 ★ 深度解读
Kuaishou Tech
将生成式重排的原子从单品提升为有序物品对,解码步数减半,实现1.83倍加速且性能显著提升
📌 工作参考价值(4 点)
- 生成式重排中,将物品级自回归解码改为物品对级,直接减少解码步数,可无缝集成到现有 Generator-Evaluator 框架中,降低推理延迟。
- 预训练的对级表示(Pair-Token Representation)模块可在每次请求中动态构建词汇表,避免静态词汇表的数据稀疏问题,适用于电商/广告中候选集动态变化的场景。
- 强化学习阶段使用 GRPO 进行探索,不依赖外部过程奖励模型,实现简单且有效,可直接迁移到其他序列生成的推荐任务。
- 工程上,Pair-Token 表示编码与用户上下文编码可并行执行,隐藏额外开销;k=2 是工业场景下延迟与效果的甜点,候选集规模 n≤400 时可实现约 1.5× 以上加速。